Phân cách

Sự ngăn cách sinh sản giữ hai quần thể hữu tính phân tách là cần thiết để các quần thể đó trở thành các loài mới. Dòng gen có thể làm chậm quá trình này bằng cách cũng lan truyền các biến thể di truyền mới tới các quần thể khác. Tùy vào mức độ hai loài đã phân tách xa thế nào kể từ tổ tiên chung gần nhất của chúng, chúng có thể vẫn có khả năng giao phối, như ghép ngựa và lừa sinh ra những con la[9]. Những sinh vật lai như vậy thường là vô sinh. Trong trường hợp này, các loài có quan hệ gần gũi có thể giao phối thường xuyên, nhưng sinh vật lai sẽ bị chọn lọc phủ nhận và hai loài vẫn tách biệt.

Tuy nhiên, các loài lai hữu thụ (có thể sinh nở được) đôi khi tạo nên và những loài mới này có thể hoặc có những tính chất trung gian giữa các loài bố mẹ, hoặc sở hữu kiểu hình hoàn toàn mới[10]. Tầm quan trọng của việc lai ghép trong việc tạo nên loài động vật mới là chưa rõ ràng, mặc dù có những trường hợp đã được quạn sát ở nhiều loài động vật[11], như một trường hợp đã được nghiên cứu kỹ lưỡng là ếch cây xám[12].

Ở những loài sinh sản hữu tính, sự phát sinh loài bắt nguồn từ sự cách biệt sinh sản rồi sau đó là sự phân tách về phả hệ. Có bốn cơ chế cho sự phát sinh loài. Phổ biến nhất ở động vật là sự phát sinh loài khác khu phân bố (allopatric speciation), xảy ra ở những quần thể ban đầu bị cách biệt về mặt địa lý, như do sự phân mảnh môi trường sống hay do di cư. Chọn lọc dưới những điều kiện này sẽ sinh ra những thay đổi rất nhanh về bề ngoài và hành vi của sinh vật[13][14]. Vì chọn lọc và dịch chuyển tác động độc lập lên các quần thể cô lập khỏi phần còn lại của loài, sự chia tách cuối cùng có thể làm nảy sinh những sinh vật không thể giao phối với loài gốc[15].

Tương cận

Cơ chế thứ hai là sự hình thành loài gần khu phân bố (peripatric speciation), xảy ra khi những quần thể sinh vật nhỏ trở nên bị cô lập trong một khu phân bố mới. Điều này khác với cơ chế ở trên ở chỗ các quần thể bị tách biệt nhỏ hơn nhiều quần thể gốc về mặt số lượng. Ở đây, "hiệu ứng người sáng lập" (founder effect, hiệu ứng trong đó quần thể nhỏ bị cô lập suy giảm đột ngột các biến dị di truyền), tạo nên một sự hình thành loài nhanh chóng sau một sự gia tăng giao phối tăng cường chọn lọc trên đồng hợp tử, dẫn tới một sự thay đổi nhanh chóng về mặt di truyền[16].

Ngoại khu

Cơ chế thứ ba là sự hình thành loài ngoài khu phân bố (parapatric speciation). Nó tương tự với cơ chế thứ hai ở chỗ một quần thể nhỏ xâm nhập vào một không gian phân bố mới, nhưng khác ở chỗ không có sự chia cách vật lý nào giữa hai quần thể. Thay vào đó, sự hình thành loài nảy sinh từ sự tiến hóa các cơ chế giảm dòng gen giữa hai quần thể[1]. Thông thường điều này xảy ra khi có một sự thay đổi lớn đột ngột môi trường trong không gian phân bố của loài gốc. Một ví dụ là loài cỏ Anthoxanthum odoratum, có thể đã trải qua sự hình thành loài loại này để đối phó với nhiễm độc kim loại cục bộ ở các vùng mỏ[17].

Ở đây, thực vật tiến hóa có khả năng chịu một hàm lượng kim loại cao trong đất. Chọn lọc phủ nhận giao phối với quần thể gốc nhạy cảm với kim loại sinh ra một sự thay đổi từ từ trong thời gian nở hoa của thực vật kháng kim loại, cuối cùng tạo nên sự tách biệt sinh sản hoàn toàn. Chọn lọc phủ nhận các sinh vật lai giữa hai quần thể có thể gây ra sự tăng cường, đó là sự tiến hóa của các tính trạng khuyến khích giao phối trong một loài, cũng như sự chiếm chỗ đặc tính, là khi hai loài trở nên khác biệt hơn về bề ngoài[18].

Nội khu

Cuối cùng, trong sự hình thành loài cùng khu phân bố (sympatric speciation) các loài phân tách mà không hề có sự cách biệt địa lý hay thay đổi môi trường sống. Dạng này hiếm gặp do ngay cả chỉ một lượng nhỏ dòng gen cũng có thể loại bỏ sự khác biệt di truyền giữa các phần của một quần thể[19]. Nhìn chung, loại hình thành loài này đòi hỏi sự tiến hóa cả trong khác biệt di truyền và giao phối không ngẫu nhiên, cho phép cách biệt sinh sản để tiến hóa[20].

Lai chéo

Một loại hình thành loài cùng khu phân bố liên quan tới giao phối chéo của hai loài gần gũi để tạo ra một loài lai mới. Điều này không phổ biến ở động vật vì động vật lai thường vô sinh. Đó là vì trong quá trình giảm phân các nhiễm sắc thể tương đồng từ bố và mẹ đến từ các loài khác nhau và khó ghép cặp thành công. Tuy nhiên, nó phổ biến hơn ở thực vật, bởi vì thực vật thường nhân đôi số nhiễm sắc thể của chúng, tạo nên các thể đa bội[21]. Điều này cho phép các nhiễm sắc thể từ mỗi loài cha mẹ hình thành các cặp phù hợp trong giảm phân[22]. Một ví dụ của hiện tượng này là khi hai loài thực vật Arabidopsis thaliana và Arabidopsis arenosa giao phối chéo cho ra loài mới là Arabidopsis suecica[23].

Điều này đã xảy ra khoảng 20 nghìn năm trước[24], và quá trình hình thành loài đã được lặp lại trong phòng thí nghiệm để nghiên cứu các cơ chế di truyền tham gia vào quá trình này[25]. Thực tế, nhiễm sắc thể nhân đôi trong một loài có thể là nguyên nhân thông thường của tách biệt sinh sản, vì mỗi nửa của nhiễm sắc thể nhân đôi không khớp khi giao phối với một sinh vật không nhân đôi[26].